查看原文
其他

“后 ChatGPT”读书会启动:从通用人工智能到意识机器

集智俱乐部 集智俱乐部 2023-02-20


导语


2022年11月30日,一个现象级应用程序诞生于互联网,这就是OpenAI开发的ChatGPT。从问答到写程序,从提取摘要到论文写作,ChatGPT展现出了多样化的通用智能。于是,微软、谷歌、百度、阿里、讯飞,互联网大佬们纷纷摩拳擦掌准备入场……


但是,请先冷静一下…… 现在 all in 大语言模型是否真的合适?要知道,ChatGPT的背后其实就是深度学习+大数据+大模型,而这些要素早在5年前的AlphaGo时期就已经开始火热了。5年前没有抓住机遇,现在又凭什么可以搭上大语言模型这趟列车呢?


要知道,从1956年算起,人工智能已经历了至少三次大的起落。第一波,数学定理机器证明、机器博弈的成功让人们做出了各种不靠谱的预期。最糟糕的是机器翻译,它的失败导致美国政府花了2000万美元为机器翻译挖掘了一个坟墓。第二波,人工神经网络、遗传算法、模糊计算、支持向量机等新领域的兴起再次让人们兴奋,但很快,它们就如过眼云烟一样被人遗忘,因为承诺无法兑现。第三波,也正是从2015年算起,以可微分编程为代表的深度学习技术获得了长足的进步,以至于产生了ChatGPT这一现象级的应用。那么,这一波的震动又将会持续多久呢?这会不会是新一波的疯狂开始?


在这个大背景下,集智俱乐部的“后 ChatGPT”读书会由北师大教授、集智俱乐部创始人张江老师联合肖达、李嫣然、崔鹏、侯月源、钟翰廷、卢燚等多位老师共同发起,旨在系统性地梳理ChatGPT技术,并发现其弱点与短板。同时,结合集智俱乐部常年来积累的各种人工智能技术讨论,展望后GPT时代的人工智能都有哪些可能性?


我们必须深知,深度学习、大数据、大模型并不是人工智能的全部。还有很多有趣的话题供我们玩味——因果科学、知识图谱、复杂系统、涌现计算、主动推断、意识机器、量子计算……这些都是尚待人们深入的全新领域。相比于在ChatGPT的身后辛苦追赶,我们更需要放宽视野看到更多人工智能的未来可能……


本系列读书会线上进行,2023年3月3日开始,每周五晚 19:00-21:00,持续时间预计5-7周。读书会详情及参与方式见后文。





读书会概览



 

ChatGPT是OpenAI发布的大语言模型对话系统,通过对话的方式与用户进行交互,它可以和你进行无障碍沟通,让你感觉对面不是一个聊天机器人,而是一个知识渊博的长者,相比传统的聊天机器人,这个突破是跨越性的。

ChatGPT自2022年11月30日推出以来,由于其卓越的性能受到了技术工作者及大众的广泛关注。它可以提供一些相对可靠的知识获取、对话、写作的支持,甚至已经有程序员开始用它debug了,比尔·盖茨在接受采访时表示:“到目前为止,人工智能可以读写,但无法理解内容。像 ChatGPT 这样的新程序将通过帮助开收据或写邮件来提高许多办公室工作的效率。这将改变我们的世界。”微软公司新版必应搜索引擎和Edge浏览器就调用了OpenAI开发的ChatGPT技术,让你在搜索网页时拥有一个给力的智能助理。

从基本技术原理来看,ChatGPT以GPT-3.5架构的大语言模型为基础,通过人类反馈的监督学习和强化学习方法来提升模型性能,从而让对话越来越逼真。大语言模型技术展现出了强大的涌现能力,并且其涌现能力是随着模型规模非线性变化的。而随着话题出圈,各行各业的人们通过与ChatGPT对话,使得ChatGPT得到进一步训练和微调。这一过程使得ChatGPT的技术和应用生态,呈现出了复杂适应系统的特征,持续在反馈中提高适应能力。

具体而言,在ChatGPT的反馈提升过程中,问题合适的问题或提示尤其重要,你可能要尝试多种提问方法,或者要给出多轮背景信息,才能获得好的回答效果,这背后依赖的技术是自然语言处理的新兴方向——提示工程(Prompt Engineering)。怎样让AI自动发现合适的提示词,进而高效地提升模型能力,可能是人工智能革新之路的“低垂果实”。

ChatGPT被津津乐道还在于它具备了一定的“因果推理”能力,但显然ChatGPT对于内容相关性的处理,要强于对因果推理。对于商业应用和技术进一步提升而言,因果推理能力是关键。近年来,数据科学与机器学习领域正在兴起一场“因果革命”,能够自动化发现海量数据中因果关系的“因果科学”正在形成,因果推断、因果表征学习、因果强化学习、因果发现等前沿方向正在构建一条让人工智能发现因果、提炼模式、甚至创造新知识的路径。

同时ChatGPT还展示出了类似人类的智能,在一些问答测试中足够以假乱真突破图灵测试,新研究甚至用“心智理论”评估ChatGPT已经相当于9岁儿童的智力水平。意识是人类区别或者凌驾于机器的最后一道防线,ChatGPT尚未完全攻克。意识问题本身具备跨学科性,全局空间、整合信息等理论还在竞相发展。多年来还有一批小众学者正在尝试在计算机中构建能够让它“自我模拟”的程序,进而设计出具备意识的机器。对意识问题的理解尤其是对意识机器的构建,可能是未来通用人工智能发展的关键突破机会。

库兹韦尔预测技术奇点会在21世纪四十年代到来,其中标志事件就是超级人工智能。而因为ChatGPT的到来,技术奇点问题也再度成为热点议题。人类社会是否在科技、伦理、制度、文化等各个方面准备好了迎接通用人工智能时代甚至是意识机器时代的到来?这一系列问题,有待我们进一步讨论。

本次读书会将在对ChatGPT技术原理探讨的基础上,延伸探讨上述相关方向的探索历程与前沿进展,勾勒未来人工智能技术路线图,并探讨通用人工智能预期下的未来社会前景。





发起人团队介绍




张江,北京师范大学系统科学学院教授,集智俱乐部、集智学园、集智科学研究中心的创始人,曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括复杂系统分析与建模、规模理论等。
集智斑图个人主页:https://pattern.swarma.org/user/9


肖达 ,集智科学家社群成员,人工智能公司彩云天气联合创始人、首席科学家,主要负责深度神经网络模型和算法的研发用于彩云天气、彩云小译、彩云小梦等产品,北京邮电大学网络空间安全学院讲师。
集智斑图个人主页:https://pattern.swarma.org/user/2118

李嫣然,集智学园讲师、集智俱乐部核心成员。曾任小米人工智能实验室高级算法工程师及场景对话团队研发负责人,同时也兼任着北京大学心理与认知学院的行业导师。其多年担任 AAAI,ACL,EMNLP等国际顶级会议的审稿人,并担任 EMNLP 2022 领域主席。其曾在国际顶级会议及期刊上发表论文二十余篇,涵盖情感计算、人机对话、自然语言生成等研究领域,谷歌学术累计引用逾2000次。
集智斑图个人主页:https://pattern.swarma.org/user/39

崔鹏,清华大学计算机系长聘副教授,博士生导师。研究兴趣聚焦于大数据驱动的因果推理和稳定预测、大规模网络表征学习等。在数据挖掘及人工智能领域顶级国际会议发表论文100余篇,先后5次获得国际会议或期刊论文奖,并先后两次入选数据挖掘领域顶级国际会议KDD最佳论文专刊。担任IEEE TKDE、ACM TOMM、ACM TIST、IEEE TBD等国际期刊编委。曾获得国家自然科学二等奖、教育部自然科学一等奖、CCF-IEEE CS青年科学家奖、ACM杰出科学家,入选中组部万人计划青年拔尖人才,中国科协首届青年人才托举计划,并当选为中国科协全国委员会委员。
集智斑图个人主页:https://pattern.swarma.org/user/70330

侯月源,彩云科技算法工程师,2017年加入彩云科技从事深度学习算法与工程领域的研究与开发,从事数据获取与清理,模型构建与训练,深度学习基础设施开发等一线工作。在深度学习方面深度学习有较丰富的经验,对深度学习模型的可解释性,深度学习在各种场景的应用较感兴趣。作为集智俱乐部志愿者,在集智出版的《深度学习原理与PyTorch实战》第2版,以及相关课程中亦有贡献。
集智斑图个人主页:https://pattern.swarma.org/user/58

钟翰廷,贝叶智能算法工程师,有近十年 NLP 从业经验,在搜索、对话机器人、信息抽取、知识图谱等方向都有丰富的实践经验。
集智斑图个人主页:https://pattern.swarma.org/user/2708

卢燚,西安交通大学应用数学博士,现为大学讲师,曾在华为工作三年,拥有多年编程实战经验和一线教学经验,熟练掌握Python和NetLogo语言,对函数式编程有着浓厚的兴趣。讲授爬虫课两年,积累了大量的案例。
集智斑图个人主页:https://pattern.swarma.org/user/78037




推荐阅读




涌现、因果与自指——“因果涌现”理论能否破解生命与意识之谜
自上而下因果关系特刊:物理、生物、社会中的因果涌现
构建因果引擎,创新科研范式——因果科学的学习路线图
意识理论综述:众多竞争的意识理论如何相互关联?
重磅综述:意识科学五十年
意识机器?——AI视野(六)
自指机器的奥秘
自指——连接图形与衬底的金带
从知识工程到知识图谱全面回顾
ChatGPT 为啥那么牛?语言模型足够大就会涌现出新能力
侯世达集智俱乐部专场讲座 | 从表象到本质:是类比在激燃思维吗?
语言中隐藏的几何
深度学习之后:经济推理与人工智能





报名参与读书会



 

读书会适合参与对象

  • 对ChatGPT、大语言模型、提示工程等新兴技术感兴趣的朋友
  • 从事NLP、因果、类脑、意识等人工智能前沿方向研究的一线科研工作者
  • 关心科技趋势、投资机会与未来智能社会的探索者


运行模式

每周进行线上会议,由 1-2 名成员以幻灯片讲解的形式分享,与会者可以广泛参与讨论,会后可以获得视频回放持续学习。


举办时间

从 2023 年 3 月 3 日开始,每周 五 晚上 19:00-21:00,持续时间预计5-7 周。我们也会对每次分享的内容进行录制,剪辑后发布在集智斑图网站上,供读书会成员回看,因此报名的成员可以根据自己的时间自由安排学习时间。


参与方式

此次读书会为线上闭门读书会,采用的会议软件是腾讯会议(请提前下载安装)。在扫码完成报名并添加负责人微信后,负责人会将您拉入交流社区(微信群),入群后告知具体的会议号码。

报名方式

第一步:扫码填写报名信息。

扫码报名第二步:填写信息后,付费299元。支付方式可选微信、支付宝两种。如需用支付宝支付,请在PC端进入读书会页面报名支付:

https://pattern.swarma.org/study_group/23?from=wechat

第三步:添加负责人微信,拉入对应主题的读书会社区(微信群)。

本读书会可开发票,请联系相关负责人沟通详情。


退费机制

读书会通过共学共研的机制,围绕前沿主题进行内容梳理和沉淀,所以针对于学生,可以通过参与共创任务,获取积分,积分达到退费标准之后,可以直接退费。


加入社区后可以获得的资源

  • 在线会议室沉浸式讨论:与主讲人即时讨论交流

  • 交互式播放器高效回看:快速定位主讲人提到的术语、论文、大纲、讨论等重要时间点

  • 高质量的主题微信社群:硕博比例超过80%的成员微信社区,闭门夜谈和交流

  • 超多学习资源随手可得:从不同尺度记录主题下的路径、词条、前沿解读、算法、学者等

  • 参与社区内容共创任务:读书会笔记、百科词条、公众号文章、论文解读分享等不同难度共创任务,在学习中贡献,在付出中收获

  • 共享追踪主题前沿进展:在群内和公众号分享最新进展,领域论文速递


参与共创任务,共建学术社区

论文翻译

科普文章翻译

讲座整理

PS:具体参与方式可以加入读书会后查看对应的共创任务列表,领取任务,与运营负责人沟通详情,上述规则的最终解释权归集智俱乐部所有。





关于举办方和集智俱乐部读书会



 

主办方:集智俱乐部

协办方:集智学园

集智俱乐部成立于 2003 年,是一个从事学术研究、享受科学乐趣的探索者的团体,也是国内最早的研究人工智能、复杂系统的科学社区。它倡导以平等开放的态度、科学实证的精神,进行跨学科的研究与交流,力图搭建一个中国的“没有围墙的研究所”。

集智学园成立于2016年,是集智俱乐部孕育的创业团队。集智学园致力于传播复杂性科学、人工智能等前沿知识和新兴技术,促进、推动复杂科学领域的知识探索与生态构建。

集智俱乐部读书会是面向广大科研工作者的系列论文研读活动,其目的是共同深入学习探讨某个科学议题,了解前沿进展,激发科研灵感,促进科研合作,降低科研门槛。

读书会活动始于 2008 年,至今已经有 50 余个主题,内容涵盖复杂系统、人工智能、脑与意识、生命科学、因果科学、高阶网络等。凝聚了众多优秀科研工作者,促进了科研合作发表论文,孵化了许多科研产品。如:2013 年的“深度学习”读书会孕育了彩云天气 APP,2015 年的“集体注意力流”读书会产生了众包书籍《走近2050》,2020年的开始因果科学读书会孕育了全国最大的因果科学社区等。

加入集智VIP,即可解锁集智全站课程、读书会。详见:
集智学园2022年费VIP开启,与5000+集智社区成员一起探索复杂性!


点击“阅读原文”,报名读书会

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存